MCompassRAG: Topic Metadata as a Semantic Compass for Paragraph-Level Retrieval
MCompassRAG：话题元数据作为段落级检索的语义指南针
🧭 RAG 检索优化 · 话题元数据引导
University of British Columbia · University of Salerno · ServiceNow Research
用话题元数据增强段落嵌入并通过LLM蒸馏训练轻量检索器，实现高效、精确的话题感知检索
📌 工作参考价值（4 点）
- 电商搜索/推荐场景的文档切分优化：商品描述、评论往往混合多主题，直接使用粗粒度段落会引入语义噪声。可借鉴用商品类目、属性等元数据增强段落embedding，让检索结果更精准。
- 低延迟检索器蒸馏：用LLM作为教师蒸馏一个轻量双编码器，推理时无需调用LLM，显著降低线上检索延迟和成本，适合高并发实时推荐系统。
- 话题感知的Agent检索：在多跳推理或Agent工作流中，当需要从大规模非结构化文档中提取证据时，可引入话题元数据引导检索，减少无关片段干扰，提升事实准确性。
- 工程实现简单：只需在现有dense retriever基础上注入话题embedding，无需改动索引结构，易于迁移到商品库、帮助中心文档等场景。